#LLM Reranker

5 篇

ACARE: Agent-Context-Aware Reranker for Iterative Search

ACARE：面向迭代搜索的智能体上下文感知重排器

🧭 Agent 搜索 · 上下文感知重排 ★ 深度解读

University of Waterloo · NVIDIA

用原始问题与推理轨迹解释子查询的 4B 点式 LLM 重排器，提升 agentic search 检索质量并减少搜索次数

📌 工作参考价值（5 点）

会话/Agent 搜索中的子查询不能孤立评分：电商搜索、对话式推荐里用户当前 query 往往省略背景，reranker 应把会话级原始意图和已有推理轨迹作为上下文一起输入，而不是只对当前 query 打分。ACARe 的 M0–M3 模式设计可直接复用到客服机器人、多轮搜索、Agent 选品等场景。
单 checkpoint 兼容多 context 模式，工程落地友好：通过独立 context dropout（原问题与推理轨迹各以 0.5 概率丢弃）训练，同一个 reranker 支持有/无推理轨迹、有/无原始问题的部署。这对 proprietary agent 不暴露 CoT、或线上隐私限制的场景很有价值，不需要为不同上下文可用性维护多个模型。
点式评分避免 listwise 滑窗，适合长候选列表：用 LLM 对 query–doc 对独立输出 yes/no logit difference，推理时 sigmoid 保序，无需 sequential sliding window，可并行处理大量候选。在电商搜索/推荐精排阶段，若候选量大且需低延迟，可以把类似轻量 4B reranker 作为并行精排器。
小 agent + 强 reranker 可以显著缩小与大模型的效果差距：论文中小模型搭配 ACARe 后，分别缩小 51–74% 的 nDCG@10 差距，远高于 base reranker 的 26–46%。这提醒业务上可以用低成本小 agent 加上高质量检索工具，用更低 API 成本逼近大模型效果。
训练数据构造可借鉴：用 oracle reranker 基于原问题+gold answer 对 agent 子查询的候选文档排序，取 top 正样本、bottom 负样本，再以 final answer 是否与 gold answer 一致过滤轨迹。这种利用 agent trajectory 自动挖掘弱监督样本的方式可迁移到电商搜索的 query 改写/召回/精排监督数据扩产。

Agent | 2026-10-26 | cs.IR | score 9/10

SCoRD: Semantic-Assisted Continual Retriever-Reranker Distillation for LLM-Based Recommendation

SCoRD：语义辅助的 LLM 推荐检索-重排持续蒸馏

🧭 LLM 检索-重排持续协同蒸馏 ★ 深度解读

Korea University · University of Illinois at Urbana-Champaign · Sungkyunkwan University

提出语义意图助手与三阶段持续蒸馏，让 LLM 重排与轻量检索器在非平稳流中低成本高效协同更新

📌 工作参考价值（5 点）

在带 LLM 重排的检索-重排线上，不要对每个新数据块做全量蒸馏：用 retriever 序列内 item 对齐置信度筛选 bottom 20% 的低置信序列做 LLM 蒸馏，能显著降低 LLM 调用和训练成本，同时把增益集中在困难样本上。
把 LLM 的语义推理从 free-form generation 改成「动态意图记忆 + 多标签选择」，可复用为商品的 intent/兴趣标签系统；意图向量可以注入 retriever 的序列表征，增强 ID 模型的语义判别力，且推理端几乎没有额外延迟。
在 retriever 每日在线更新时，不重新调用 LLM，只聚合行为相似用户序列的意图分数作为 collaborative pseudo-label，能提供稳定语义监督；适合电商/信息流里每天冷启动或新增序列频繁的场景。
用相邻周期意图直方图差分识别衰退意图，再从 retriever 候选集里按 intent 后验采样负例，替代随机负采样，可更有效地捕捉用户偏好漂移，适合替代现有召回/排序模型中的负采样策略。
新用户无历史行为时，意图级语义先验能明显提升冷启动效果；可在用户冷启动阶段直接用 LLM 打好的 intent 标签作为特征或约束。

RecSys | 2026-08-20 | cs.IR | score 9/10

Continual Learning Knowledge Distillation LLM Reranker Sequential Recommendation Retrieval-Rerank Intent Memory

Tevatron Meets Megatron: Expert-Parallel LLM Reranker Training on an Academic Budget

Tevatron集成Megatron：学术预算下的专家并行LLM重排序训练

🧭 LLM重排序 · 专家并行高效训练 ★ 深度解读

University of Utah · University of Waterloo · The University of Queensland · Carnegie Mellon University · University of Virginia

为Tevatron重排序工具包引入Megatron训练后端，通过专家并行实现30B MoE重排序器训练，同时保持HF兼容。

📌 工作参考价值（4 点）

在资源受限下训练大规模MoE重排序模型：利用Megatron的专家并行（EP）将MoE层的专家分布到多个GPU，仅激活少量专家，可在两台8×H200节点上训练Qwen3-30B-A3B（30B总参，激活约3B），突破PyTorch FSDP1不支持EP的限制。
加速训练并保持部署兼容性：Megatron后端在推荐配置（TP=2/DP=4）下比FSDP1全分片快约22%，且训练产出可直接加载为Hugging Face checkpoint，无缝接入vLLM等推理引擎，部署零转换成本。
LoRA适配MoE时注意目标模块划分：使用命名目标组注册表（如指定moe_experts、moe_shared，冻结router），避免盲目适配全部128个专家FFN或遗漏关键层，这是LoRA在MoE重排序中不严重掉点的关键工程trick。
蒸馏训练可离线标注教师分数：将教师分数预计算存入数据集，训练时无需加载教师模型，节省显存和计算量；蒸馏与对比学习在不同数据集上各有优势，可根据业务场景灵活选择，并在重排序任务中简化训练管线。

RecSys | 2026-08-02 | cs.LG | score 8/10

MoE Expert Parallelism LLM Reranker Tevatron Megatron LoRA

Explaining When PRF Fails: Participatory Auditing for Selective Query Expansion

解释伪相关反馈何时失效：面向选择性查询扩展的参与式审计

🧭 查询扩展·选择性PRF·LLM审计

通过用户审计量化PRF的损害并优先避免，用LLM重排序器自动预测选择性决策并给出可解释证据

📌 工作参考价值（4 点）

在搜索/广告/推荐场景的查询扩展模块中，可引入参与式审计（小规模用户测评）来标定真实体验风险，发现哪些查询因扩展导致漂移，量化避免损害的价值
用LLM重排序器作为选择性查询扩展的决策器：输入原始查询和候选扩展词，让LLM基于文档证据预测用户偏好（受益或受损），并提供可检查的文本解释，实现审计自动化
架构上采用「先审计后自动化」两阶段：先用用户标签构建偏好数据集，再训练或微调LLM预测器，让系统决策与用户感知对齐，而非仅依赖QPP统计量
业务中面对高风险查询（如品牌词、长尾精确词），优先遵循「避免伤害」原则，在扩展收益不确定时保守处理，将拦截损害的价值置于放大成功之上

QueryRec | 2026-07-13 | cs.IR | score 7/10

Pseudo-Relevance Feedback Selective Query Expansion Query Drift LLM Reranker Explainability Participatory Audit

Tool-Adaptive LLM Reranker

工具自适应大语言模型重排序器

🧭 点式重排序 · 自适应工具路由 ★ 深度解读

Carnegie Mellon University · Huazhong University of Science and Technology

将点式重排序建模为 Agent MDP，通过成本感知强化学习动态调用工具，平衡精度与效率

📌 工作参考价值（4 点）

动态工具调用机制：对于冷门商品、长尾查询或实时性要求高的推荐（如促销、库存变化），可训练重排序模型自行判断是否需要查询外部知识库（商品属性、实时价格、知识图谱），避免对所有请求都进行昂贵的外部检索，保持低延迟。
两阶段训练范式：利用 KL 散度正则化防止 LLM 在微调判别性任务时丧失原生生成能力（灾难性遗忘），随后用 GRPO 优化延迟与准确性的权衡；这一方法可直接迁移到现有基于 LLM 的评分模型训练中。
非对称成本感知奖励：设计奖励函数时，对高置信度错误且未调用工具给予严厉惩罚（-1.0），对正确回答且绕过工具给予高奖励，迫使模型只在必要时调用工具；可应用于构建自适应推理链路的 Agent 系统中。
提示模板与推理流程：论文提供了最小化工具调用的系统指令和严格输出格式，以及基于 token 拦截的 MDP 推理 Algorithm 1，对实现类似的 Agentic Reranker 具有直接参考价值。

RecSys | 2026-07-12 | cs.IR | score 9/10

LLM Reranker Tool-Adaptive MDP Cost-Aware RL Pointwise Scoring Retrieval-Augmented